回归

分层和匹配都是非参数估计方法，并未对数据生成过程作出假设。

定义：

outcome $Y$
binary treatment $D$
discrete covariates $X$

考虑如下 Linear Regression Model（省略了规范性条件）：

Y = τ_{R} D + X^{T} β + e

根据 Frisch-Waugh-Lovell Theorem 可知， $τ_{R}$ 也相当于 $Y$ 对 $\tilde{D}$ 回归的系数。其中， $\tilde{D}$ 是 Linear Projection Model $D = X^{T} β^{'} + \tilde{D}$ 当中的 Projection Error。不过，根据条件期望的定义， $X$ 是离散变量就意味着 $E [D ∣ X] = X^{T} β^{'}$ ，即条件期望函数必然是线性的。因此 $\tilde{D} = D - E [D ∣ X]$ ，即 $\tilde{D}$ 还是 CEF Error，也就满足相关性质。如果 $X$ 是连续变量，要使用 CEF Error 的相关性质就需要明确假设 $E [D ∣ X]$ 关于 $X$ 是线性的了。

根据 Linear Regression Model#求解参数可知

τ_{R} = \frac{E [\tilde{D} Y]}{E [{\tilde{D}}^{2}]} = \frac{E [\tilde{D} E (Y ∣ \tilde{D})]}{E [{\tilde{D}}^{2}]} = \frac{E [\tilde{D} E (Y ∣ D, X)]}{E [{\tilde{D}}^{2}]}

利用潜在结果框架，定义

Δ (X) \equiv E (Y ∣ D = 1, X) - E (Y ∣ D = 0, X)

从而有

E (Y ∣ D, X) = E (Y ∣ D = 0, X) + D Δ (X)

代入 $τ_{R}$ 可得

\begin{aligned} τ_{R} & = \frac{E [\tilde{D} E (Y ∣ D, X)]}{E [{\tilde{D}}^{2}]} \\ = \frac{E [\tilde{D} E (Y ∣ D = 0, X)]}{E [{\tilde{D}}^{2}]} + \frac{E [\tilde{D} D Δ (X)]}{E [{\tilde{D}}^{2}]} \\ = \frac{E [\tilde{D} D Δ (X)]}{E [{\tilde{D}}^{2}]} \\ = \frac{E [E (\tilde{D} D ∣ X) Δ (X)]}{E [E ({\tilde{D}}^{2} ∣ X)]} \end{aligned}

其中， $E (Y ∣ D = 0, X)$ 是关于 $X$ 的函数，根据 CEF Error 的性质可知该项为零。

引理：

E (\tilde{D} D ∣ X) = E ({\tilde{D}}^{2} ∣ X) = E {[D - E (D ∣ X)]^{2} ∣ X} = V a r (D ∣ X)

证明： $\tilde{D}$ 定义式两边同时乘上 $\tilde{D}$ 并取期望可得

\begin{aligned} {\tilde{D}}^{2} & = \tilde{D} D - \tilde{D} E [D ∣ X] \\ E [{\tilde{D}}^{2}] & = E [\tilde{D} D] - E [\tilde{D} E (D ∣ X)] \\ E [E ({\tilde{D}}^{2} ∣ X)] & = E [E (\tilde{D} D ∣ X)] \end{aligned}

其中， $E (D ∣ X)$ 是关于 $X$ 的函数，根据 CEF Error 的性质可知可知该项为零，第一个等式成立；代入 $\tilde{D}$ 的定义式即可得到剩余等式。证毕。

引理代入 $τ_{R}$ 可得

τ_{R} = \frac{E [V a r (D ∣ X) Δ (X)]}{E [V a r (D ∣ X)]}

可见回归被估量 $τ_{R}$ 相当于 $Δ (X = x)$ 根据 $V a r (D ∣ X)$ 加权的平均值。其中， $D$ 是一个服从二项分布的随机变量，因此 $V a r (D ∣ X) = P (D = 1 ∣ X) [1 - P (D = 1 ∣ X)]$ ，于是

τ_{R} = \frac{\sum Δ (X = x) P (D = 1 ∣ X = x) [1 - P (D = 1 ∣ X = x)] P (X = x)}{\sum P (D = 1 ∣ X = x) [1 - P (D = 1 ∣ X = x)] P (X = x)}

对比匹配被估量，使用贝叶斯公式和全概率公式可得

τ_{M} = \sum Δ (X = x) P (X = x ∣ D = 1) = \frac{\sum Δ (X = x) P (D = 1 ∣ X = x) P (X = x)}{\sum P (D = 1 ∣ X = x) P (X = x)}

由此可见，回归和匹配都是 $Δ (X)$ 的平均值，回归是加权平均值，匹配则是算术平均值。例如， $P (D = 1 ∣ X = x) = \frac{1}{2}$ 时 $V a r (D ∣ X)$ 最大，即回归会将最大权重赋予处理组和控制组数量相同的层。

结合潜在结果框架，如果满足强可忽略性假设，则

Δ (X) = A T T (X) = A T U (X) = A T E (X)

进一步，如果 $Δ (X)$ 为常数（这很困难），则回归和匹配被估量结果完全相同。